Oracle 和 NVIDIA 宣布，首次將 NVIDIA 加速運算與推理軟體以及 Oracle 的 AI 基礎架構和生成式 AI 服務進行集成，協助全球企業加速建置代理式 AI 應用程式。憑藉 Oracle Cloud Infrastructure (OCI) 與 NVIDIA AI Enterprise 軟體平台的全新整合，企業可透過 OCI 主控台原生使用 160 多個 AI 工具和 100 多個 NVIDIA NIM™ 微服務。此外，Oracle 與 NVIDIA 合作推動 Oracle 和 NVIDIA AI Blueprints 的無程式碼部署，並使用 NVIDIA cuVS 庫加速在 Oracle Database 23ai 中的AI Vector Search。

Oracle 行政總裁 Safra Catz 表示：「Oracle 已成為 AI 訓練與推理的優選平台，而此次合作將進一步提升我們協助客戶實現更多創新與業務成果的能力。NVIDIA 的解決方案與 OCI 的彈性、可擴展性、效能與安全等優勢相結合，將加速 AI 採用，並協助客戶從數據中獲取更多價值。」

NVIDIA 共同創辦人暨行政總裁黃仁勳表示：「作為一家處理全球大量企業數據的關鍵參與者與一家AI和加速運算公司，Oracle 和 NVIDIA 是推理時代完美的合作夥伴。我們共同協助企業運用代理式 AI 進行創新，為他們的客戶與合作夥伴帶來驚人的成果。」

專為支援企業 AI 需求而構建的解決方案

NVIDIA AI Enterprise 將透過 OCI Console原生提供，從而減少部署推理模型所需的時間，讓企業能夠快速、輕鬆地取得 AI 工具，包括 NVIDIA NIM™ (這是一組針對領先 AI 模型優化的 100 多個雲端原生推理微服務，包括用於高階 AI 推理新的 NVIDIA Llama Nemotron 模型)。NVIDIA AI Enterprise 也將作為部署映像檔提供，適用於 OCI 的裸機執行個體和使用 OCI Kubernetes Engine 的 Kubernetes 叢集。OCI Console的客戶將享有透過 Oracle 提供的直接計費和客戶支援服務。

企業可在其數據中心、公有雲或邊緣環境中部署 OCI 的 150 多個 AI 和雲端服務，並結合使用 NVIDIA 加速運算與 NVIDIA AI Enterprise。此方案提供整合式 AI 堆疊，協助支援數據隱私權、主權 AI 及低延遲需求。

生物科技公司 Soley Therapeutics 正在部署 OCI AI 基礎架構、NVIDIA AI Enterprise 及 NVIDIA Blackwell GPU，以建置 AI 藥物發現平台，透過捕捉、解碼和解析細胞語言，預測細胞命運，開創治療複雜疾病的新機會。

Soley Therapeutics 行政總裁暨共同創辦人 Yerem Yeghiazarians 表示：「我們相信 AI 在開發新療法方面具有巨大潛力，能協助我們為癌症及其他複雜疾病提供創新治療方案。OCI 與 NVIDIA 攜手提供完整堆疊的 AI 解決方案，為我們提供所需的儲存空間、運算能力、軟體工具與支援，讓我們能夠在處理 PB 級數據的同時更快地創新，推動 AI 藥物發現平台的發展。」

借助定制的藍圖進行大規模 AI 部署

OCI AI Blueprints 提供無程式碼部署方案，讓客戶能夠快速運行 AI 工作負載，無需自行決定軟體堆疊或手動配置基礎架構。這些藍圖為 NVIDIA GPU、NIM 微服務和預先打包的可觀察性工具提供了明確的硬體建議，協助企業將 AI 專案的開發時間從數週縮短至數分鐘。

此外 NVIDIA Blueprints 透過提供適用於企業 AI 用例的參考工作流程，為開發人員提供跨 NVIDIA 堆疊的統一體驗。藉助 NVIDIA Blueprints，企業可使用 NVIDIA AI Enterprise 和 NVIDIA Omniverse™ 軟體、應用程式介面及微服務來建置和運行自訂 AI 應用程式。例如，開發人員可以從適用於客戶服務 AI 助理的 NVIDIA AI Blueprint 開始，並根據自身需求進行客製化。為了簡化高階實體 AI 和類比應用程式及工作流程的開發、部署和擴展，NVIDIA Omniverse 和 NVIDIA Isaac Sim 開發工作站以及 Omniverse Kit App Streaming 預計將於今年稍後在 Oracle Cloud Infrastructure Marketplace 上線，並預先配置了由 NVIDIA L40S GPU 加速的運算裸機執行個體。

Pipefy 是一個用於業務流程管理的 AI 自動化平台，使用推理藍圖進行文件預處理和圖像處理。

Pipefy 首席軟體工程師 Gabriel Custódio 表示：「我們採用 OCI AI Blueprints 來快速啟動 GPU 節點，並部署多模態 LLM，以進行文件和圖像處理。透過這些預先打包且經過驗證的藍圖，我們在 OCI 上部署 AI 模型的過程已完全自動化，速度顯著加快。」

在 OCI Data Science 中使用 NVIDIA NIM 進行即時 AI 推理

為了進一步加速企業 AI 採用並以簡單的設定快速部署 AI，數據科學家可以直接在 OCI Data Science 中存取預先優化的 NVIDIA NIM 微服務，無需處理複雜的基礎架構管理，便可支援即時 AI 推理的應用。

為了維護數據安全和合規性，這些模型將在客戶的 OCI 租用戶環境中執行。客戶可以選擇透過隨用隨付、按小時計費的靈活模式購買模型，或使用 Oracle Universal Credits。

藉助這項整合，企業僅需幾分鐘便可部署已預先配置且優化的 NIM 推理引擎端點，從而快速加快 AI 助理、即時推薦引擎和 Copilot 等用例的價值實現時間。此外，這也讓企業能夠從較小的工作負載開始，並無縫地擴展至全企業部署。

NVIDIA 加速運算平台增強 Oracle Database 23ai 中的 AI Vector Search 功能

Oracle 與 NVIDIA 合作，運用 NVIDIA GPU 和 NVIDIA cuVS 加速建立向量嵌入和向量索引，這些都是 Oracle Database 23ai 中 AI Vector Search 工作負載的運算密集型部分。

企業可以透過對大量輸入數據 (如文字、圖像和影片) 進行批量向量化，快速建立和維護向量索引來啟用向量嵌入。藉由 NVIDIA 加速的 AI Vector Search，Oracle Database 客戶可顯著提高 AI 工作流程的效能，支援大規模的 AI 向量工作負載。

DeweyVision 提供先進的電腦視覺和人工智能技術，將媒體轉化為數據，使其可存取、可搜尋、可發現、可檢索且可操作。DeweyVision 在 Oracle Autonomous Database 上使用 Oracle Database 23ai，支援其 AI 驅動的無程式碼倉儲工具。這些工具協助製作專業人員快速連接工作流程，在幾分鐘內對素材進行分類，並使用直觀的搜尋功能來快速編輯影片素材。

DeweyVision 行政總裁 Majid Bemanian 表示：「搭載 AI Vector Search 的 Oracle Database 23ai 可以顯著提高 Dewey 的搜尋效能，同時提高 DeweyVision 平台的可擴展性。使用 NVIDIA GPU 建立載入 Oracle Database 的向量嵌入可加快我們提取新數據的速度，而 Autonomous Database 和 Oracle Database 23ai 的融合功能將有助於在我們發展和開拓新機遇的同時降低營運成本。我們相信，DeweyVision、Oracle Database 23ai 和在 OCI 上運行的 NVIDIA GPU 的結合，將幫助我們實現成為好萊塢數據倉儲的目標。」

基於OCI 的 NVIDIA Blackwell 讓 AI 無處不在

Oracle 與 NVIDIA 持續推動 AI 基礎架構的發展，將新的 NVIDIA GPU 類型引入 OCI 的公有雲區域、Government Clouds、Sovereign Clouds、OCI Dedicated Region、Oracle Alloy、OCI Compute Cloud@Customer 以及 OCI Roving Edge Devices 等多個區域。

這包括 NVIDIA Quantum-2 InfiniBand 叢集網路環境、 NVIDIA Spectrum乙太網路交換器，以及針對市場上大型的 AI 超級叢集優化的 NVIDIA NVLink™ 和 NVLink Switch 功能。此外，OCI 將 OCI Supercluster上提供即將推出的 NVIDIA GB200 NVL72 系統 (最多可搭載 131,072 個 NVIDIA GPU)，同時也開始接受訂購搭載 NVIDIA Blackwell Ultra GPU 的全球大型 AI 超級電腦之一。

OCI 將成為首批提供下一代 NVIDIA Blackwell 加速運算平台的雲端服務提供商之一。Blackwell Ultra以一年前推出的Blackwell架構為基礎，包含NVIDIA GB300 NVL72機架式解決方案與NVIDIA HGX™ B300 NVL16系統。GB300 NVL72的AI效能比NVIDIA GB200 NVL72高出1.5倍。

SoundHound AI 是全球語音人工智能領導者，為數百個企業品牌、數千家餐廳和零售門市提供服務，其產品已部署在數百萬輛汽車和裝置上。該公司的語音 AI 平台在 OCI 上運行，每年處理數十億次查詢，並使用 NVIDIA GPU 提供快速且準確的互動體驗。

SoundHound AI 首席產品官 James Hom 表示：「SoundHound AI 與 OCI 建立了長期的合作關係，我們相信我們的持續合作將在支援未來成長方面發揮關鍵作用。我們很高興能夠運用各種 GPU 來訓練我們下一代的語音 AI。」

其他資源

• 深入瞭解 OCI AI infrastructure
• 深入瞭解 Oracle Cloud Infrastructure
• 深入瞭解 Oracle 運用 NVIDIA AI Enterprise 擴展分散式雲端功能
• 閱讀 OCI Supercluster 技術部落格 及觀看 影片

關於 Oracle Distributed Cloud

Oracle 的分散式雲端提供更易控制且更有彈性的雲端優勢。Oracle 的分散式雲端系列包括：

• 公有雲: 超大規模公有雲區域可為任何規模的組織提供服務，包括需要嚴格歐盟主權控制的組織。請參閱此處的完整區域清單。
• 專有雲: 客戶可以使用 OCI Dedicated Region 在自己的數據中心執行所有 OCI 雲端服務，而合作夥伴可以使用 Oracle Alloy 經銷 OCI 雲端服務和自訂體驗。這些產品各自提供完整的雲端和 AI 堆疊，供客戶部署為主權雲端。
• 混合雲: OCI 能透過 Oracle Exadata Cloud@Customer 和 Compute Cloud@Customer，以內部部署方式提供關鍵雲端服務，並已管理超過 60 個國家/地區的部署。此外，OCI Roving Edge Infrastructure 由多個組態的耐用型可攜式高效能裝置組成，可協助客戶在邊緣運用遠端 AI 推理。
• 多雲: OCI 實際上部署在 AWS、Google Cloud 和 Microsoft Azure 等所有超大規模雲端供應商的平台中，提供低延遲、原生整合的 Oracle 數據庫服務，包括 Oracle Database@AWS、Oracle Database@Azure、Oracle Database@Google Cloud 和 AWS 上的 Oracle HeatWave。Oracle Interconnect for Microsoft Azure 和 Oracle Interconnect for Google Cloud 讓企業能夠結合使用不同雲端的關鍵功能。